home *** CD-ROM | disk | FTP | other *** search
/ IRIX Base Documentation 2002 November / SGI IRIX Base Documentation 2002 November.iso / usr / share / catman / p_man / cat3 / f90 / precision.z / precision
Encoding:
Text File  |  2002-10-03  |  2.4 KB  |  69 lines
  1. PRECISION(3I)                                         Last changed: 4-13-99
  2.  
  3.  
  4. NNAAMMEE
  5.      PPRREECCIISSIIOONN - Returns the decimal precision of a number in the real
  6.      number model
  7.  
  8. SSYYNNOOPPSSIISS
  9.      PPRREECCIISSIIOONN (([XX==]_x))
  10.  
  11. IIMMPPLLEEMMEENNTTAATTIIOONN
  12.      UNICOS, UNICOS/mk, IRIX systems
  13.  
  14.      CF90, MIPSpro 7 Fortran 90
  15.  
  16. SSTTAANNDDAARRDDSS
  17.      Fortran
  18.  
  19. DDEESSCCRRIIPPTTIIOONN
  20.      The PPRREECCIISSIIOONN intrinsic function returns the decimal precision of a
  21.      number in the real number model.  The real number model is described
  22.      in the MMOODDEELLSS(3I) man page.  This function accepts the following
  23.      argument:
  24.  
  25.      _x         Must be of type real or complex.  It may be scalar or array
  26.                valued.
  27.  
  28.      PPRREECCIISSIIOONN is an inquiry function.  The name of this intrinsic cannot
  29.      be passed as an argument.
  30.  
  31. RREETTUURRNN VVAALLUUEESS
  32.      The result is a default integer scalar.  The result has the value
  33.      IINNTT((_p-1)*LLOOGG1100(_b))+_k, where _b and _p are as defined in the model and
  34.      where _k is 1 if _b is an integral power of 10 and 0 otherwise.
  35.  
  36. EEXXAAMMPPLLEESS
  37.      On UNICOS systems, except for CRAY T90 systems that support IEEE
  38.      floating-point arithmetic, PPRREECCIISSIIOONN((XX)) has the value 13 for
  39.      RREEAALL((KKIINNDD==88)).
  40.  
  41.      On CRAY T90 systems that support IEEE floating-point arithmetic,
  42.      PPRREECCIISSIIOONN((XX)) has the following values:
  43.  
  44.      * 6 for RREEAALL((KKIINNDD==44)) XX
  45.  
  46.      * 15 for RREEAALL((KKIINNDD==88)) XX
  47.  
  48.      * 33 for RREEAALL((KKIINNDD==1166)) XX
  49.  
  50.      On IRIX systems, PPRREECCIISSIIOONN((XX)) has the following values:
  51.  
  52.      * 6 for RREEAALL((KKIINNDD==44)) XX
  53.  
  54.      * 15 for RREEAALL((KKIINNDD==88)) XX
  55.  
  56.      * 31 for RREEAALL((KKIINNDD==1166)) XX
  57.  
  58.      On UNICOS/mk systems, PPRREECCIISSIIOONN((XX)) has the following values:
  59.  
  60.      * 6 for RREEAALL((KKIINNDD==44)) XX
  61.  
  62.      * 15 for RREEAALL((KKIINNDD==88)) XX
  63.  
  64. SSEEEE AALLSSOO
  65.      MMOODDEELLSS(3I)
  66.  
  67.      _I_n_t_r_i_n_s_i_c _P_r_o_c_e_d_u_r_e_s _R_e_f_e_r_e_n_c_e _M_a_n_u_a_l for the printed version of this
  68.      man page.
  69.